// 版权所有2009 Go作者。版权所有。
// 此源代码的使用受BSD样式
// 许可证的约束，该许可证可以在许可证文件中找到。

// 开始：构建arm 
// /+构建arm 

package atomic

import (
	"internal/cpu"
	"unsafe"
)

// 通过linkname将一些函数导出到同步/原子的程序集。
// go:linkname Xchg 
// go:linkname XCHGINTPTR 

type spinlock struct {
	v uint32
}

// go:nosplit 
func (l *spinlock) lock() {
	for {
		if Cas(&l.v, 0, 1) {
			return
		}
	}
}

// go:nosplit 
func (l *spinlock) unlock() {
	Store(&l.v, 0)
}

var locktab [57]struct {
	l   spinlock
	pad [cpu.CacheLinePadSize - unsafe.Sizeof(spinlock{})]byte
}

func addrLock(addr *uint64) *spinlock {
	return &locktab[(uintptr(unsafe.Pointer(addr))>>3)%uintptr(len(locktab))].l
}

// 原子添加并返回新值。
// go:nosplit 
func Xadd(val *uint32, delta int32) uint32 {
	for {
		oval := *val
		nval := oval + uint32(delta)
		if Cas(val, oval, nval) {
			return nval
		}
	}
}

// go:noescape 
func Xadduintptr(ptr *uintptr, delta uintptr) uintptr

// go:nosplit 
func Xchg(addr *uint32, v uint32) uint32 {
	for {
		old := *addr
		if Cas(addr, old, v) {
			return old
		}
	}
}

// go:nosplit 
func Xchguintptr(addr *uintptr, v uintptr) uintptr {
	return uintptr(Xchg((*uint32)(unsafe.Pointer(addr)), uint32(v)))
}

// noescape——它安装了指向addr的指针。
func StorepNoWB(addr unsafe.Pointer, v unsafe.Pointer)

// go:noescape 
func Store(addr *uint32, v uint32)

// go:noescape 
func StoreRel(addr *uint32, v uint32)

// go:noescape 
func StoreReluintptr(addr *uintptr, v uintptr)

// go:nosplit 
func goCas64(addr *uint64, old, new uint64) bool {
	if uintptr(unsafe.Pointer(addr))&7 != 0 {
		*(*int)(nil) = 0 // 在未对齐的单元上崩溃64 
	}
	_ = *addr // 如果为零，在锁定
	var ok bool
	addrLock(addr).lock()
	if *addr == old {
		*addr = new
		ok = true
	}
	addrLock(addr).unlock()
	return ok
}

// go:nosplit 
func goXadd64(addr *uint64, delta int64) uint64 {
	if uintptr(unsafe.Pointer(addr))&7 != 0 {
		*(*int)(nil) = 0 // 在未对齐的单元上崩溃
	}
	var r uint64
	addrLock(addr).lock()
	r = *addr + uint64(delta)
	*addr = r
	addrLock(addr).unlock()
	return r
}

// go:nosplit 
func goXchg64(addr *uint64, v uint64) uint64 {
	if uintptr(unsafe.Pointer(addr))&7 != 0 {
		*(*int)(nil) = 0 // 在未对齐的uint64 
	}
	_ = *addr // 如果为零，取锁前故障
	var r uint64
	addrLock(addr).lock()
	r = *addr
	*addr = v
	addrLock(addr).unlock()
	return r
}

// go:nosplit 
func goLoad64(addr *uint64) uint64 {
	if uintptr(unsafe.Pointer(addr))&7 != 0 {
		*(*int)(nil) = 0 // 在未对齐的uint64 
	}
	var r uint64
	addrLock(addr).lock()
	r = *addr
	addrLock(addr).unlock()
	return r
}

// go:nosplit 
func goStore64(addr *uint64, v uint64) {
	if uintptr(unsafe.Pointer(addr))&7 != 0 {
		*(*int)(nil) = 0 // 未对齐的uint64 
	}
	_ = *addr // 如果为零，取锁前故障
	addrLock(addr).lock()
	*addr = v
	addrLock(addr).unlock()
}

// go:nosplit 
func Or8(addr *uint8, v uint8) {
	// 向下对齐到4个字节并使用32位CAS。
	uaddr := uintptr(unsafe.Pointer(addr))
	addr32 := (*uint32)(unsafe.Pointer(uaddr &^ 3))
	word := uint32(v) << ((uaddr & 3) * 8) // 小尾端
	for {
		old := *addr32
		if Cas(addr32, old, old|word) {
			return
		}
	}
}

// go:nosplit 
func And8(addr *uint8, v uint8) {
	// 向下对齐到4个字节并使用32位CAS。简体中文：简体中文：简体中文：简体中文：简体中文：简体中文：简体中文：简体中文：简体中文：简体中文：简体中文：简体中文：简体中文：简体中文：简体中文：简体中文：简体中文：简体中文：简体中文：简体中文：简体中文：简体中文：简体中文：简体中文：简体中文：简体中文：简体中文：简体中文：简体中文：简体中文：简体中文：简体中文：简体中文：简体中文：简体中文：简体中文：简体中文：简体中文*如果结果转义，则addr转义（#31525）go:noescape-
	uaddr := uintptr(unsafe.Pointer(addr))
	addr32 := (*uint32)(unsafe.Pointer(uaddr &^ 3))
	word |= ^mask
	for {
		old := *addr32
		if Cas(addr32, old, old&word) {
			return
		}
	}
}

func Or(addr *uint32, v uint32) {
	for {
		old := *addr
		if Cas(addr, old, old|v) {
			return
		}
	}
}

func And(addr *uint32, v uint32) {
	for {
		old := *addr
		if Cas(addr, old, old&v) {
			return
		}
	}
}

func armcas(ptr *uint32, old, new uint32) bool

func Load(addr *uint32) uint32

func Loadp(addr unsafe.Pointer) unsafe.Pointer

func Load8(addr *uint8) uint8

func LoadAcq(addr *uint32) uint32

// go:noescape-
func LoadAcquintptr(ptr *uintptr) uintptr

// go:noescape-
func Cas64(addr *uint64, old, new uint64) bool

// go:noescape-
func CasRel(addr *uint32, old, new uint32) bool

// go:noescape-
func Xadd64(addr *uint64, delta int64) uint64

// go:noescape-
func Xchg64(addr *uint64, v uint64) uint64

// go:noescape-
func Load64(addr *uint64) uint64

// go:noescape-
func Store8(addr *uint8, v uint8)

// go:noescape-
func Store64(addr *uint64, v uint64)
